Sau khi tốt nghiệp, Tô Lâm phục vụ trong ngành An ninh và thăng tiến qua nhiều chức vụ.

Ông gia nhập Đảng Cộng sản Việt Nam vào ngày 22/8/1981.[3]Từ năm 1979 đến 1988, ông công tác tại Tổng cục An ninh, Bộ Công an.

Từ năm 1988 đến 1993, ông giữ chức Phó trưởng phòng rồi Trưởng phòng thuộc Tổng cục An ninh, Bộ Công an.

Từ năm 1993 đến 2006, ông giữ các chức vụː Phó Cục trưởng rồi Cục trưởng thuộc Tổng cục An ninh, Bộ Công an.

Từ năm 2006 đến 2009, Tô Lâm được bổ nhiệm giữ chức Phó Tổng cục trưởng Tổng cục An ninh, Bộ Công an.

Tháng 4 năm 2007, ông được Chủ tịch nước Nguyễn Minh Triết phong hàm Thiếu tướng.

Năm 2009, ông được bổ nhiệm giữ chức Tổng cục trưởng Tổng cục An ninh I, Bộ Công an.

Tháng 7 năm 2010, ông được Chủ tịch nước Nguyễn Minh Triết phong hàm Trung tướng.

Ngày 12 tháng 8 năm 2010, Tô Lâm được Thủ tướng Chính phủ Nguyễn Tấn Dũng bổ nhiệm giữ chức vụ Thứ trưởng Bộ Công an.

Tháng 1 năm 2011, ông dự Đại hội Đại biểu toàn quốc lần thứ XI của Đảng, ông được bầu vào Ban Chấp hành Trung ương Đảng.

Ngày 16 tháng 9 năm 2014, ông được Chủ tịch nước Trương Tấn Sang thăng cấp hàm từ Trung tướng lên Thượng tướng.[5]

Ngày 22 tháng 10 năm 2015, ông được phong học hàm Giáo sư ngành Khoa học An ninh.

Tháng 1 năm 2016, tại Đại hội Đại biểu toàn quốc lần thứ XII của Đảng, Tô Lâm được bầu lại vào Ban Chấp hành Trung ương Đảng, được Ban Chấp hành Trung ương bầu vào Bộ Chính trị.[6]

Ngày 09 tháng 04 năm 2016, tại kỳ họp thứ 11, Quốc hội khóa XIII phê chuẩn, Chủ tịch nước Trần Đại Quang bổ nhiệm ông giữ chức Bộ trưởng Bộ Công an.

Ngày 13 tháng 4 năm 2016, Bộ Chính trị đã quyết định phân công Tô Lâm giữ chức Bí thư Đảng ủy Công an Trung ương[7].

Ngày 04 tháng 05 năm 2016, tại Hà Nội, Đảng ủy Công an Trung ương phối hợp Văn phòng Trung ương Đảng tổ chức Lễ công bố Quyết định của Bộ Chính trị phân công Thượng tướng Tô Lâm, Ủy viên Bộ Chính trị, Bộ trưởng Bộ Công an giữ chức Bí thư Đảng ủy Công an Trung ương.

Ngày 22 tháng 5 năm 2016, Tô Lâm lần đầu trúng cử đại biểu Quốc hội Việt Nam khóa 14 ở đơn vị bầu cử số 2, tỉnh Bắc Ninh gồm có thị xã Từ Sơn và các huyện: Tiên Du, Yên Phong, được 269.938 phiếu, đạt tỷ lệ 95,16% số phiếu hợp lệ, cùng với ông Nguyễn Nhân Chiến và bà Nguyễn Thị Ngọc Lan.

Ngày 28 tháng 7 năm 2016, tại kỳ họp thứ 1, Quốc hội khóa XIV phê chuẩn, Chủ tịch nước Trần Đại Quang bổ nhiệm ông giữ chức Bộ trưởng Bộ Công an.

Ngày 30 tháng 7 năm 2016, ông được Bộ Chính trị phân công giữ chức Trưởng ban Chỉ đạo Tây Nguyên của Đảng Cộng sản Việt Nam.[8]

Ngày 27 tháng 4 năm 2016, ông được Bộ Chính trị bổ nhiệm kiêm giữ chức Phó Trưởng ban Chỉ đạo Trung ương về phòng, chống tham nhũng của Đảng Cộng sản Việt Nam.[9]

Ngày 29 tháng 1 năm 2019, Tô Lâm được Tổng bí thư, Chủ tịch nước Nguyễn Phú Trọng thăng cấp hàm từ Thượng tướng lên Đại tướng cùng với đợt của Đại tướng Lương Cường, Chủ nhiệm Tổng cục Chính trị Quân đội nhân dân Việt Nam[10]